This article proposes a model-based deep reinforcement learning (DRL) method to design emergency control strategies for short-term voltage stability problems in power systems. Recent advances show promising results in model-free DRL-based methods for power systems, but model-free methods suffer from poor sample efficiency and training time, both critical for making state-of-the-art DRL algorithms practically applicable. DRL-agent learns an optimal policy via a trial-and-error method while interacting with the real-world environment. And it is desirable to minimize the direct interaction of the DRL agent with the real-world power grid due to its safety-critical nature. Additionally, state-of-the-art DRL-based policies are mostly trained using a physics-based grid simulator where dynamic simulation is computationally intensive, lowering the training efficiency. We propose a novel model-based-DRL framework where a deep neural network (DNN)-based dynamic surrogate model, instead of a real-world power-grid or physics-based simulation, is utilized with the policy learning framework, making the process faster and sample efficient. However, stabilizing model-based DRL is challenging because of the complex system dynamics of large-scale power systems. We solved these issues by incorporating imitation learning to have a warm start in policy learning, reward-shaping, and multi-step surrogate loss. Finally, we achieved 97.5% sample efficiency and 87.7% training efficiency for an application to the IEEE 300-bus test system.

在本文中，我们为RSI（名为Superyolo）提出了一种准确而快速的小对象检测方法，该方法融合了多模式数据并通过利用辅助超级分辨率（SR）学习并考虑既有辅助的超级分辨率（SR）对象进行高分辨率（HR）对象检测检测准确性和计算成本。首先，我们通过删除焦点模块来保持人力资源特征并显着克服小物体缺失的误差来构建紧凑的基线。其次，我们利用像素级的多模式融合（MF）从各种数据中提取信息，以促进RSI中的小物体更合适和有效的功能。此外，我们设计了一个简单且灵活的SR分支来学习HR特征表示，可以区分具有低分辨率（LR）输入的庞大背景的小物体，从而进一步提高了检测准确性。此外，为避免引入其他计算，SR分支在推理阶段被丢弃，并且由于LR输入而减少了网络模型的计算。实验结果表明，在广泛使用的Vedai RS数据集上，Superyolo的精度为73.61％（在MAP50方面），比SOTA大型模型（例如Yolov5L，Yolov5X和RS设计的Yolors）高10％以上。同时，Superyolo的Gfolps和参数大小比Yolov5X少约18.1倍，4.2倍。我们提出的模型显示出与最新模型相比，具有良好的准确性速度权衡。该代码将在https://github.com/icey-zhang/superyolo上开放。

尽管具有明显的区分靶向分布样本的能力，但深度神经网络在检测异常分布数据方面的性能差。为了解决此缺陷，最先进的解决方案选择在离群值的辅助数据集上训练深网。这些辅助离群值的各种培训标准是根据启发式直觉提出的。但是，我们发现这些直观设计的离群训练标准可能会损害分布学习，并最终导致劣等的表现。为此，我们确定了分布不兼容的三个原因：矛盾的梯度，错误的可能性和分布变化。基于我们的新理解，我们通过调整深层模型和损耗函数的顶级设计，提出一种新的分布检测方法。我们的方法通过减少对分布特征的概率特征的干扰来实现分布兼容性。在几个基准上，我们的方法不仅可以实现最新的分布检测性能，而且还提高了分布精度。

人工智能的最新趋势是将验证的模型用于语言和视觉任务，这些模型已经实现了非凡的表现，但也令人困惑。因此，以各种方式探索这些模型的能力对该领域至关重要。在本文中，我们探讨了模型的可靠性，在其中我们将可靠的模型定义为一个不仅可以实现强大的预测性能，而且在许多涉及不确定性（例如选择性预测，开放式设置识别）的决策任务上，在许多决策任务上表现出色，而且表现良好。强大的概括（例如，准确性和适当的评分规则，例如在分布数据集中和分发数据集上的对数可能性）和适应性（例如，主动学习，几乎没有射击不确定性）。我们设计了40个数据集的10种任务类型，以评估视觉和语言域上可靠性的不同方面。为了提高可靠性，我们分别开发了VIT-PLEX和T5-PLEX，分别针对视觉和语言方式扩展了大型模型。 PLEX极大地改善了跨可靠性任务的最先进，并简化了传统协议，因为它可以改善开箱即用的性能，并且不需要设计分数或为每个任务调整模型。我们演示了高达1B参数的模型尺寸的缩放效果，并预处理数据集大小最多4B示例。我们还展示了PLEX在具有挑战性的任务上的功能，包括零射门的开放式识别，主动学习和对话语言理解中的不确定性。

文档检索使用户能够准确，快速找到所需的文档。为了满足检索效率的要求，普遍的深神经方法采用了基于表示的匹配范式，该范式通过离线预先存储文档表示节省了在线匹配时间。但是，上述范式会消耗庞大的本地存储空间，尤其是将文档存储为单词元素表示时。为了解决这个问题，我们提出了TGTR，这是一种基于主题的文本表示模型，用于文档检索。遵循基于表示的匹配范式，TGTR将文档表示脱机存储以确保检索效率，而通过使用新颖的主题格式表示，而不是传统的单词元素，则大大降低了存储要求。实验结果表明，与单词粒度的基线相比，TGTR在检索准确性方面始终在TREC CAR和MS MARCO上竞争，但其所需的存储空间的少于1/10。此外，TGTR绝大多数在检索准确性方面超过了全球粒度的基线。

时间序列预测在许多现实世界中都起着重要的作用，例如设备生命周期预测，天气预报和交通流量预测。从最近的研究中可以看出，各种基于变压器的模型在预测时间序列中显示出了显着的结果。但是，仍然有一些问题限制了在时间序列预测任务上基于变压器的模型的能力：（i）直接在原始数据上学习由于其复杂且不稳定的功能表示，因此对噪声易受噪声； （ii）自我发挥的机制不足以对变化的特征和时间依赖性的关注不足。为了解决这两个问题，我们提出了一个基于变压器的差异重构注意模型Draformer。具体而言，Draformer具有以下创新：（i）对差异序列进行学习，该序列通过差异和突出序列的变化属性来保留清晰和稳定的序列特征； （ii）重建的注意力：综合距离注意力通过可学习的高斯内核表现出顺序距离，分布式差异注意通过将差异序列映射到适应性特征空间来计算分布差异，并且两者的组合有效地集中在具有显着关联的序列上; （iii）重建的解码器输入，该输入通过集成变异信息和时间相关来提取序列特征，从而获得了更全面的序列表示。在四个大型数据集上进行的广泛实验表明，Draformer的表现优于最先进的基线。

视觉变换器将每个图像分成具有固定长度的令牌序列，并以与自然语言处理中的单词相同的方式处理令牌。更多令牌通​​常会导致更好的性能，但计算成本显着增加。通过谚语“一张图片胜过千言万语”，我们的目标是通过制造长图像短而加速VIT模型。为此，我们提出了一种新颖的方法在推论期间自适应地分配令牌长度。具体而言，我们首先培养一种含有可调整化 - vit（Revit）的Vit模型，可以处理任何具有不同令牌长度的给定输入。然后，我们从Revit检索“令牌长度标签”，并使用它培训轻量级令牌长度分配（TLA）。令牌长度标签是最小的令牌，以分割Revit可以使REVIT可以进行正确的预测，并且学习TLA以基于这些标签分配最佳令牌长度。 TLA使REVIT能够在推理期间使用最小足够数量的令牌处理图像。因此，通过减少VIT模型中的令牌数字来提高推广速度。我们的方法是一般的，与现代视觉变压器架构兼容，可以显着减少计算扩展。我们在两个任务中验证了我们对多个代表性VIT模型（DEIT，LV-VIT和TIMESFRER）的效果（图像分类和动作识别）。

这项工作调查了神经架构搜索中的批量标准化（NAS）。具体来说，Frankle等人。发现培训Batchnorm只能实现非竞争性能。此外，陈等人。声称培训Batchnorm只能加快10次单次NAS超网关的培训。批判性地，没有努力理解1）为什么训练Batchnorm只能找到具有减少的超空网训练时间的表演井架构，而且2）列车-BN的超网和标准列车超空网之间有什么区别。我们首先显示列车-BN网络融合到神经切线内核制度，从理论上获得与所有参数的所有参数相同的训练动态。我们的证据支持索赔仅在超培训时间上训练Batchnorm。然后，我们经验披露了培训-BN的超标网络在其他运营商的卷曲中提供了优势，导致架构之间的不公平竞争。这是因为只有卷积运算符被附加到Batchnorm。通过实验，我们表明这种不公平性使得搜索算法容易选择具有卷积的模型。为了解决这个问题，我们通过在每个操作员上放置批处理层来引入搜索空间的公平性。然而，我们观察到Chen等人的性能预测因子。在新的搜索空间上不可应用。为此，我们提出了一种新颖的综合性能指标，从三个视角评估网络：源自Batchnorm的理论属性的表达性，培训和不确定性。我们展示了我们对多NAS基准的方法（NAS-BENCH101，NAS-BENCH-201）和搜索空间（飞镖搜索空间和MOBILENET搜索空间）的有效性。

在这项工作中，我们提出了一种基于物理信息引导元进化策略（ES）的新型数据驱动的实时电力系统电压控制方法。主要目标是快速提供自适应控制策略来减轻故障引起的延迟电压恢复（FIDVR）问题。已经为相同或类似的具有挑战性的控制问题制定了强化学习方法，但它们遭受培训效率低下，“角落或看不见”情景缺乏鲁棒性。另一方面，在电力系统中开发了广泛的物理知识，但基于学习的方法很少有利于。为了解决这些挑战，我们介绍了可训练的动作掩模技术，以灵活地将物理知识嵌入到RL模型中，以排除不必要或不利的行动，并达到样本效率，控制性能和鲁棒性的显着改善。此外，我们的方法利用过去学习体验来导出代理梯度，以指导和加速培训勘探过程。与其他最先进的基准方法的IEEE 300座系统和比较案例研究表明了我们方法的有效性和优势。

稀疏贝叶斯学习（SBL）构建了一个极其稀疏的概率模型，具有非常竞争力的泛化。但是，SBL需要将大型协方差矩阵与复杂性O（m ^ 3）（m：特征大小）反转，以更新正则化引脚，使得难以进行实际使用。 SBL中有三个问题：1）反转协方差矩阵可能在某些情况下获得奇异溶液，从而从收敛中阻碍SBL; 2）对高维特征空间或大数据尺寸的问题的可扩展性差; 3）SBL容易受到大规模数据的内存溢出。本文通过新提出的对角QuAsi-Newton（DQN）方法来解决DQN-SBL的新提出的对准Quasi-Newton（DQN）方法，其中忽略了大协方差矩阵的反转，使得复杂性和存储器存储减少到O（M）。使用不同大小的各种基准数据集，在非线性分类器和线性特征选择上进行彻底评估DQN-SBL。实验结果验证DQN-SBL是否通过非常稀疏的模型接收竞争泛化，并符合大规模问题。